Năm 954, Ngô Xương Ngập bị bệnh thượng mã phong chết, chỉ còn Ngô Xương Văn. Năm 965, Ngô Xương Văn đi đánh thôn Đường (thuộc căn cứ Đường Lâm) và thôn Nguyễn Gia Loan (thuộc phạm vi kiểm soát của sứ quân Nguyễn Thái Bình) thì bị phục binh bắn nỏ chết.[1] Tại Cổ Loa các tướng Lã Xử Bình, Kiều Tri Hựu, Đỗ Cảnh Thạc, Dương Huy tranh nhau làm vua.

Theo Khâm định Việt sử Thông giám cương mục thì một viên tướng người họ Ngô là Ngô Xương Xí tụ tập quân giữ Bình Kiều. Tuy nhiên lời chua sách này ghi Ngô Xương Xí: con Thiên Sách vương Ngô Xương Ngập. Đại Việt sử lược thì chép sứ quân Nguyễn Du Dịch tên Xương Xí. Các cuốn sử trên cùng với Đại Việt sử ký toàn thư đều không chép việc Xương Xí nối ngôi vua.

Khi Nam Tấn Vương mất, Ngô Xương Xí chưa tới 20 tuổi, theo lẽ thường sẽ trở thành Vua. Nhưng vì thế lực ngày càng yếu nên Ngô Xương Xí phải lui về giữ đất Bình Kiều. Vùng đất nay được xác định thuộc Triệu Sơn, Thanh Hóa.[2]

Từ khi Dương Tam Kha cướp ngôi của nhà Ngô, nhiều nơi không phục đã nổi lên. Cho tới thời của Ngô Xương Xí thì hình thành 12 đạo quân lớn hơn cả, trấn giữ các địa phương, sử sách gọi là loạn 12 sứ quân. Ngô Xương Xí cũng nằm trong số đó, tức Ngô Sứ quân (吳使君).

Sử sách chép không thật rõ ràng về thời kỳ loạn lạc này, nhất là kể từ cái chết của Nam Tấn Vương Ngô Xương Văn. Theo Khâm định Việt sử Thông giám cương mục, một trong những bộ chính sử Việt Nam, đã xảy ra việc "tranh chấp ngôi vua" giữa các đại thần Lã Xử Bình, Kiều Tri Hựu, Đỗ Cảnh Thạc và Dương Huy tại kinh thành Cổ Loa. Có thể trong cuộc tranh chấp đó, Ngô Xương Xí đã phải chạy khỏi kinh thành.